随着深度学习模型的速度较大，需要进行大型型号培训的系统级解决方案。我们展示了Amazon Sagemaker模型并行性，这是一个与Pytorch集成的软件库，并且可以使用模型并行性和其他内存节省功能轻松培训大型模型。与现有解决方案相比，Sagemaker库的实现更通用，灵活，因为它可以自动分区和运行具有最小代码的任意模型架构上的管道并行性，并且还为张量并行度提供一般和可扩展的框架，它支持更广泛的用例，并且可以轻松应用于新培训脚本的模块化。该库还将本机Pytorch用户体验保留到更大的程度，支持模块重复使用和动态图形，同时让用户完全控制训练步骤的细节。我们评估GPT-3，Roberta，BERT和神经协作过滤的性能，并表现出对现有解决方案的竞争性能。
translated by 谷歌翻译
神经网络在许多科学领域都变得流行，因为它们是有前途，可靠和强大的工具。在这项工作中，我们研究了数据增强对核物理数据神经网络模型的预测能力的影响。我们提供两种不同的数据增强技术，并根据不同的深度，优化器，激活功能和随机种子值进行详细的分析，以显示模型的成功和鲁棒性。首次使用实验不确定性进行数据扩展，人为地增强了训练数据集的大小，并且研究了测试集的模型预测与实验数据之间的根平方误差的变化。我们的结果表明，数据增强降低了预测错误，稳定模型并防止过度拟合。还测试了AME2020质量表中新测得的核的MLP模型的外推能力，并显示通过使用数据增强来显着改善预测。
translated by 谷歌翻译
冷冻切片（FS）是手术操作期间组织微观评估的制备方法。该程序的高速允许病理学医师快速评估关键的微观特征，例如肿瘤边距和恶性地位，以引导手术决策，并尽量减少对操作过程的干扰。然而，FS容易引入许多误导性的人工结构（组织学人工制品），例如核冰晶，压缩和切割人工制品，妨碍了病理学家的及时和准确的诊断判断。额外的培训和长期经验通常需要对冻结部分进行高度有效和时间关键的诊断。另一方面，福尔马林固定和石蜡嵌入（FFPE）的黄金标准组织制备技术提供了显着优越的图像质量，而是一种非常耗时的过程（12-48小时），使其不适合术语用。在本文中，我们提出了一种人工智能（AI）方法，通过在几分钟内将冻结的整个幻灯片（FS-WSIS）计算冻结的整个幻灯片（FS-WSIS）来改善FS图像质量。 AI-FFPE将FS人工制品终止了注意力机制的指导，该引导机制在利用FS输入图像和合成的FFPE样式图像之间利用建立的自正则化机制，以及综合相关特征的合成的FFPE样式图像。结果，AI-FFPE方法成功地生成了FFPE样式图像，而不会显着扩展组织处理时间，从而提高诊断准确性。我们证明了使用各种不同的定性和定量度量，包括来自20个董事会认证的病理学家的视觉图灵测试的各种不同的定性和定量度量。
translated by 谷歌翻译